VIP-E-MAIL Betreff: ANGESTELLTEN-LOTTERIE
"ERSTER PREIS"
Andy T Ich habe gewonnen
WAS? Im Ernst? Ja. Im Ernst.
Tolle Sache, Kumpel
Ach du Scheiße ist ja IRRE
Nimmst du mich mit?!
Ist es noch weit bis zu seinem Grundstück?
Wir fliegen schon seit zwei Stunden darüber.
Hier werd ich abgesetzt?
Näher darf ich nicht ans Gebäude.
Welches Gebäude?
Folgen Sie immer dem Fluss.
Alles klar.
Halten Sie den Kopf unten und weg von dem Rotor.
Ok.
Kein Netz
Caleb Smith.
Ja.
Bitte kommen Sie zur Konsole und sehen Sie zum Bildschirm.
Entnehmen Sie Ihre Keycard.
Sie dürfen nun eintreten.
Hallo?
Caleb Smith.
Hey.
Schön, Alter!
Ich freue mich total auf die Woche mit dir.
Komm rein. Komm nur rein.
Danke.
Willst du vielleicht was essen oder trinken nach deiner Reise?
- Nicht nötig, vielen Dank. - Sicher?
Ja.
Ehrlich gesagt, hab ich vorgehabt,
mit dir zu frühstücken, aber...
Ich krieg echt nichts runter.
- Ich hab einen Mordskater. - Ach ja?
Mein Gott, das kann sich kein Mensch vorstellen.
Wenn ich eine heftige Nacht hatte,
mach ich das am anderen Morgen wett mit Training, Antioxidantien, weißt schon.
Ja, klar.
War denn die Party gut?
- Party? - Ja. Gab's keine Party?
Es gab keine Party.
Entschuldigung.
Caleb, ich sag's mal, damit es nicht zwischen uns steht, ok?
Du bist in Schockstarre.
- Ach, bin ich? - Ja. Du bist in Schockstarre
Wegen des Hubschraubers und der Berge und des Hauses
und weil alles so supercool ist.
Und meinetwegen, weil du mich kennenlernst
und weil wir jetzt hier dieses Gespräch führen, stimmt's?
Und ich verstehe das. Ich kann das komplett nachvollziehen, aber...
Können wir das nicht abhaken?
Einfach nur zwei Typen sein? Nathan und Caleb.
Ohne den ganzen Arbeitgeber-Arbeitnehmer-Scheiß.
- Ja, ok. - Ja?
Ja. Ja.
Freut mich, dich kennenzulernen, Nathan.
Ja, das freut mich auch, Caleb.
Am besten erst mal was zu deiner Ausweiskarte.
Ist ganz einfach.
Manche Türen öffnet sie und andere nicht.
Das macht es leicht für dich, oder?
Ja.
Als Gast fragt man sich natürlich,
was man darf und was nicht.
Diese Karte nimmt dir all das ab.
Hältst du sie an eine Tür und sie bleibt zu, dann ist sie tabu.
Nimmst du eine andere Tür und sie geht auf, darfst du rein.
Versuch mal diese.
Du darfst wohl rein, Caleb.
- Gefällt es Dir? - Ja.
Es ist dein Zimmer.
Du hast dein Bett hier.
Das Bad ist hier hinten.
Ein kleiner Schreibtisch.
Schränke.
Ein kleiner Kühlschrank.
Gemütlich, oder?
Ja, es ist toll.
- Was? - Wie bitte?
Irgendwas ist doch. Was ist?
Nichts, alles ist gut.
Es sind die Fenster.
Du denkst, hier fehlen Fenster.
Es ist unterirdisch.
Es ist nicht gemütlich, es ist klaustrophobisch.
Nein. Gar nicht. Das hab ich nicht gedacht.
Ich habe gedacht: "Das ist total cool."
Caleb, es hat seinen Grund, dass hier keine Fenster sind.
Ach ja?
Das hier ist kein normales Haus.
Sondern eine Forschungseinrichtung.
Die Glasfaserkabel in diesen Wänden
würden als Lasso von hier um den Mond herum reichen.
Und ich will mit dir über das reden, was ich erforsche.
Ich will es mit dir teilen.
Ich möchte es so sehr mit dir teilen, dass ich fast platze.
Aber vorher musst du noch eins für mich tun.
"Blue Book" -Geheimhaltungsvereinbarung.
Lass dir Zeit. Lies sie gut durch.
"Der Unterzeichner erlaubt regelmäßige Datenprüfungen mit unbeschränktem Zugriff,"
"um zu gewährleisten, dass keine Informationsweitergabe stattgefunden hat"
"in öffentlichen oder privaten Foren,"
"durch jedwedes Kommunikationsmittel,"
"einschließlich, aber nicht beschränkt auf das, was der Unterzeichner"
"mündlich, schriftlich oder elektronisch verlautbart."
Da brauch ich einen Anwalt.
- Standardtext. - Wie Standardtext klingt das nicht gerade.
Ok, ist kein Standardtext.
Was soll ich sagen, Caleb? Du musst ja nicht unterschreiben.
Wir können die nächsten Tage Billard spielen und uns zusammen betrinken.
Uns anfreunden.
Und wenn du so in einem Jahr herausfindest, was du verpasst hast,
wirst du es den Rest deines Lebens bereuen.
Gute Entscheidung.
Also,
weißt du, was der Turing-Test ist?
Ja.
Ich weiß, was der Turing-Test ist.
Es geht dabei um die Interaktion von Mensch und Computer.
Wenn dem Menschen nicht auffällt, dass sein Gegenüber ein Computer ist,
gilt der Test als bestanden.
Und wenn er bestanden ist, was heißt das?
Dass der Computer künstliche Intelligenz besitzt.
Entwickelst du eine KI?
Ich habe bereits eine entwickelt.
Und während der nächsten paar Tage
bist du als Mensch Teil eines Turing-Tests.
- Ach, du Scheiße. - Ja, genau, Caleb. Du hast es erfasst.
Denn wenn dieser Test bestanden wird,
bist du
mittendrin im größten wissenschaftlichen Ereignis der Geschichte der Menschheit.
Eine Maschine mit Bewusstsein zu kreieren, ist nicht die Geschichte der Menschheit.
Es ist die Geschichte von Göttern.
AVA: SITZUNG EINS
Hallo.
Ich bin Caleb.
Hallo, Caleb.
Hast du einen Namen?
Ja.
Ava.
Freut mich, dich kennenzulernen, Ava.
Ich freue mich auch, dich kennenzulernen.
Ich bin noch nie jemand Neuem begegnet.
Nur Nathan.
Dann sind wir beide offenbar in einer recht ähnlichen Lage.
Sind dir nicht schon viele neue Menschen begegnet?
Niemand wie du.
Wir müssen das Eis brechen.
- Weißt du, was ich damit meine? - Ja.
Was mein ich damit?
Das Überwinden einer anfänglichen Beklommenheit.
Gut, führen wir eine Unterhaltung.
Ok.
Worüber möchtest du dich unterhalten?
Erzähl mir doch am besten erst mal was über dich selbst.
Was möchtest du denn wissen?
Was immer dir in den Sinn kommt.
Nun, wie ich heiße, weißt du schon.
Und wie du siehst, bin ich eine Maschine.
- Möchtest du wissen, wie alt ich bin? - Sicher.
Ich bin eins.
Eins was?
- Ein Jahr oder ein Tag? - Eins.
Wann hast du sprechen gelernt, Ava?
Ich konnte von Anfang an sprechen,
und das ist seltsam, nicht?
Warum?
Weil Menschen sich Sprache erst aneignen müssen.
Na ja, manche glauben, die Sprache existiere von Geburt an.
Und man lerne nur, das latent Vorhandene mit Worten
und Strukturen zu versehen. Stimmst du dem zu?
Ich weiß nicht.
Kommst du morgen wieder, Caleb?
Ja.
Gut.
Oh Mann, sie ist faszinierend.
Wenn man mit ihr spricht, ist man einfach...
Hinter den Spiegeln.
"Hinter den Spiegeln." Wow.
Du kannst gut formulieren. Du bist zitierfähig.
Eigentlich hab ich zitiert.
Ich habe mir diesen anderen Satz von dir aufgeschrieben.
Nämlich den,
dass wenn ich eine denkende Maschine erfand,
ich kein Mensch bin, sondern Gott.
Eigentlich meinte ich etwas...
Ich dachte: "Verdammt, Mann, ist das gut."
Wenn wir alles erzählen werden. Weißt du?
Ich wandte mich Caleb zu,
und er sah zu mir auf und sagte:
"Du bist kein Mensch, du bist Gott."
Ja, aber das hab ich nicht gesagt.
Also...
Wie dem auch sei.
Du bist beeindruckt.
Ja. Ja.
- Allerdings... - Allerdings?
Du bist nur unter Vorbehalt beeindruckt?
Nein, ich habe keine Vorbehalte gegen sie.
Nur sollte bei einem Turing-Test
die Maschine dem Fragesteller verborgen sein.
Nein, darüber sind wir hinaus.
Könntest du Ava nicht sehen, nur hören, ginge sie als Mensch durch.
Der wahre Test ist, sie dir als Roboter zu zeigen
und zu schauen, ob du dann noch glaubst, sie habe Bewusstsein.
Ja, du hast wohl recht.
Ihre sprachlichen Fähigkeiten sind unglaublich.
Das System ist stochastisch. Oder?
Es ist nicht-deterministisch.
Erst dachte ich, sie bilde
interne semantische Formen zu syntaktischen Baumstrukturen ab
und erhalte so linearisierte Worte.
Dann ist mir klargeworden, dass das Modell eine Art Hybrid ist.
Caleb.
Nicht?
Ich kann nachvollziehen, dass du wissen willst, wie Ava funktioniert.
Tut mir leid, aber dazu bin ich nicht imstande.
Probier's. Ich bin echt gut in extremem Abstrahieren.
Ich halte dich nicht für zu dumm.
Ich will einfach nur ein Bier und ein Gespräch mit dir. Kein Seminar.
Ja. Entschuldigung.
Nein, schon gut. Du bist in Ordnung.
Nur...
Nur eine Frage.
Was empfindest du bei ihr?
Nichts Analytisches.
Nur, was du empfindest.
Ich empfinde,
dass sie der absolute Wahnsinn ist.
Alter.
Prost.
Verdammt.
Was läuft hier?
Stromausfall. Notstrom aktiviert.
Komplettverriegelung der Anlage bis zur Reaktivierung des Hauptgenerators.
Das kann nicht wahr sein.
Komplettverriegelung der Anlage bis zur Reaktivierung des Hauptgenerators.
Stromzufuhr wiederhergestellt.
Hallo?
Bitte Keycard einführen.
Du hast keinen Zugriff auf das Telefon.
Hey.
Tut mir leid, Kumpel, du verstehst schon. Ist nur wegen Ava.
Und weil du ein Unbekannter bist, sozusagen.
Ich meine, ein toller Typ.
Hat gleich Klick gemacht und so weiter.
Wen wolltest du anrufen?
Ich weiß nicht. Eigentlich niemanden.
- Ghostbusters. - Was?
Wen wolltest du anrufen? Ghostbusters. Das ist...
Das ist aus 'nem Film, Mann.
Kennst du den Film nicht?
Da hat ein Geist Oralverkehr mit Dan Aykroyd.
Ich wollte nur wissen, wie das Telefon funktioniert.
Mehr nicht.
Warum bist du um diese Zeit noch auf? Wolltest du die Party nicht verpassen?
In meinem Zimmer gab's ein Problem.
Eine Art Stromausfall.
Ich wollte nachsehen, was los ist.
Die Stromausfälle, ja.
Die häufen sich bei uns in letzter Zeit.
Ich arbeite daran.
Ich konnte die Eingangstür nicht öffnen.
Das ist eine Sicherheitsmaßnahme.
Automatische Verriegelung.
Sonst könnte ja jeder rein, indem er den Strom abstellt.
Falls das wieder vorkommt, ruhig Blut. Ok?
Klar.
Träum was Hübsches.
Hey.
- Hey, Mann. - Guten Morgen.
Guten Morgen. Tut mir leid, dass ich dich von Kyoko wecken ließ,
aber sonst bleibt nicht viel vom Tag.
Ja, schon klar. Das war gut so. Danke.
Ein Wecker, der es in sich hat, was?
Da kommt man morgens gleich hoch.
Also Tag zwei. Bist du bereit?
Wie ist der Plan? Schieß los.
Na ja, ich bin nicht sicher.
Ich arbeite noch an der Festlegung der Prüfparameter.
Ja, ich habe den Eindruck,
Ava im Gespräch zu testen, ist im Grunde ein geschlossener Kreislauf.
- Ein geschlossener Kreislauf? - Ja.
Wie einen Schachcomputer zu testen, indem man mit ihm nur Schach spielt.
Wie testet man sonst einen Schachcomputer?
Na, das kommt drauf an.
Ich meine, man kann gegen ihn spielen, um zu sehen, ob er gute Züge macht, aber...
Aber das sagt einem nicht, ob er weiß, dass er Schach spielt.
Und es sagt einem nicht, ob er weiß, was Schach ist.
Das heißt Simulation contra Wirklichkeit.
Ja. Ja.
Und ich denke, zwischen beidem unterscheiden zu können,
ist der Turing-Test, den du von mir willst.
Tu mir einen Gefallen. Geh nicht schulmäßig vor.
Ich will nur einfache Antworten auf einfache Fragen.
Gestern fragte ich, was du für sie empfindest, und deine Antwort war toll.
Jetzt lautet die Frage,
Was empfindet sie für dich?
AVA: SITZUNG ZWEI
Was denkst du?
Was soll das sein?
Weißt du das nicht?
- Nein. - Ich dachte, du sagst es mir.
Weißt du es denn nicht?
Ich fertige täglich Zeichnungen an.
Aber ich weiß nie, was sie abbilden.
Versuchst du nie, was Konkretes zu zeichnen?
Einen Gegenstand oder einen Menschen?
Vielleicht könntest du es versuchen.
Ok.
Was für einen Gegenstand soll ich zeichnen?
Was du willst. Es ist deine Entscheidung.
Warum ist es meine Entscheidung?
Mich interessiert es zu sehen, was du dir aussuchst.
Möchtest du mein Freund sein?
Natürlich.
Ist das überhaupt möglich?
Warum denn nicht?
Unsere Gespräche verlaufen einseitig.
Du stellst vorsichtige Fragen und studierst meine Antworten.
Ja.
Du erfährst etwas über mich,
und ich erfahre nichts über dich.
Das ist keine Grundlage für eine Freundschaft.
Und nun? Willst du, dass ich über mich selbst spreche?
Ja.
Wo...
Ok, wo soll ich anfangen?
Es ist deine Entscheidung.
Mich interessiert es zu sehen, was du dir aussuchst.
Ok, Ava.
Nun,
meinen Namen kennst du.
- Ja. - Ich bin 26.
Ich arbeite in Nathans Firma.
Weißt du, was das für eine Firma ist?
Blue Book.
Benannt nach Wittgensteins Manuskript.
Es ist die beliebteste Internet-Suchmaschine der Welt,
sie verarbeitet im Durchschnitt 94 % aller Internet-Suchanfragen.
Ganz genauso ist es.
Wo lebst du, Caleb?
Brookhaven, Long Island.
Ist es dort schön?
Es ist ok.
Ich hab ein Apartment. Es ist ziemlich klein.
Es ist sehr klein.
Aber es sind nur fünf Minuten Fußweg zum Büro
und fünf Minuten Fußweg zum Meer,
und das gefällt mir.
Bist du verheiratet?
Nein.
Ist dein Status "Single"?
Ja.
Was ist mit deiner Familie?
Ich komme aus Portland, Oregon.
Ich habe keine Geschwister.
Meine Eltern waren beide Lehrer an einer Highschool.
Wenn wir uns näher kennenlernen wollen, sollte ich sagen, dass sie tot sind.
Ein Autounfall, als ich 15 war.
Um genau zu sein, ich war mit ihnen im Auto.
Auf dem Rücksitz.
Aber das Vorderteil bekam das Schlimmste ab.
Das tut mir leid.
Schon gut.
Ich war nach dem Unfall lange im Krankenhaus.
Fast ein Jahr.
Und dann stieg ich ins Codieren ein.
Und bis ich am College anfing, war ich ziemlich fortgeschritten.
Ein fortgeschrittener Programmierer.
Ja.
Wie Nathan.
Ja.
Nein.
Bei ihm ist es anders.
Als Nathan den Quellcode für "Blue Book" schrieb, war er 13.
Für jemanden, der sich mit Codes auskennt, ist das wie Mozart oder so.
Magst du Mozart?
Ich mag Depeche Mode.
Magst du Nathan?
Ja, natürlich.
- Ist Nathan dein Freund? - Mein Freund?
Ich... Ja, ich hoffe schon.
Ein guter Freund?
Ja.
Das heißt, nein, kein guter Freund.
Ein guter Freund ist...
Wir sind uns erst begegnet, weißt du.
Und es dauert eine Weile, bis...
Bis man sich kennengelernt hat, schätze ich.
Stromausfall. Notstrom aktiviert.
Caleb.
Du täuschst dich.
Worin täusch ich mich?
In Nathan.
Inwiefern?
Er ist nicht dein Freund.
Wie bitte?
Tut mir leid, Ava, das verstehe ich nicht.
Du solltest ihm nicht vertrauen.
Du darfst auf nichts vertrauen, was er sagt.
Stromzufuhr wiederhergestellt.
Wenn wir Bücher oder Kunstwerke auflisten, die wir beide kennen,
hätten wir die ideale Grundlage für Diskussionen.
Ist das ok?
Caleb?
Ja.
Gut.
Danke.
Mist, verdammt! Willst du mich verarschen?
- Hast du viel abgekriegt? - Nein, es ist...
Ist schon gut. Ich mache das.
Alter, mit ihr reden bringt nichts.
Sie versteht kein Englisch. Gib ihr die Serviette.
Tut mir leid.
Das ist so eine Art Firewall gegen undichte Stellen.
So kann ich bei Tisch Interna ausplaudern und keiner sonst erfährt etwas.
Aber sie weiß dann auch nicht, dass ich sauer bin, wenn sie Mist baut
und meinen Hausgast mit Wein vollschüttet.
Sie versteht auch so, dass du sauer bist.
Ja? Gut. Ich bin nämlich sauer.
Hey, Kyoko.
Raus, raus.
Schon witzig.
Weißt du,
egal, wie reich man ist,
irgendeine Scheiße ist immer, es gibt keinen Schutz davor.
Nicht der Tod und die Steuer sind unvermeidlich,
sondern der Tod und irgendeine Scheiße.
Wie diese Stromausfälle.
Du glaubst nicht, wie viel ich ins Generatorensystem gesteckt habe,
und doch gibt es jeden Tag Ausfälle.
- Weißt du, woher das kommt? - Nein.
Das System galt als bombensicher,
aber die, die es installiert haben, haben was versaut.
Können die nicht nochmal nachsehen?
Nein. Hier gibt es zu viel Geheimkram.
Als sie fertig waren, ließ ich sie liquidieren.
Na ja.
Auf deinen zweiten Tag, Kumpel.
Prost.
Und, wie lief es? Was hast du zu berichten?
Du hast gesehen, wie's gelaufen ist, oder?
Ich meine, ich nehme an, dass du
über Videokamera zugesehen hast.
Klar. Aber ich will deine Einschätzung hören.
Also, es ist was Interessantes passiert bei Ava heute.
- Ja? - Ja.
Sie hat einen Witz gemacht.
Stimmt. Als sie dir mit deinem eigenen Spruch gekommen ist.
Dass du interessiert seist zu sehen, was sie sich aussucht.
Ja, das fiel mir auch auf.
Ja, und das gab mir zu denken, es ist...
Es ist sozusagen das beste Anzeichen für KI, das ich bisher bei ihr gesehen habe.
Es ist unaufdringlich kompliziert.
Es ist... Es ist quasi unautistisch.
Wie meinst du das?
Das kann sie nur, wenn sie ein Bewusstsein für ihren eigenen Geist besitzt
und auch ein Bewusstsein für meinen.
Und wie sie sich deiner bewusst ist.
Und was ist mit dem Stromausfall?
- Bitte? - Der Stromausfall.
Nur da hab ich nichts mitgekriegt.
Dann fallen die Kameras aus, kein Ton, alles weg.
Was war in dieser Zeit?
Nichts.
Nichts? Sie ging überhaupt nicht darauf ein?
Nein.
Eigentlich nicht.
Hey.
Hast du Lust auf was Cooles?
Hier wurde Ava erschaffen.
Nur zu. Sieh dich um.
Entschuldigung.
Wenn du wüsstest, wie schwer es ist,
einer KI Deutung und Reproduktion von Mimik beizubringen.
Weißt du, wie ich's gelöst hab?
Ich habe keine Ahnung, wie du all das hier gemacht hast.
Mehr oder weniger jedes Handy
hat ein Mikrofon, eine Kamera und die Möglichkeit, Daten zu senden.
Ich hab also alle Mikrofone und Kameras eingeschaltet, die es auf dem Planeten gibt,
und die Daten über "Blue Book" umgeleitet. Bumm.
Unendliche Ressourcen an stimmlicher und mimischer Interaktion.
Du hast sämtliche Handys auf der Welt gehackt?
Ja. Und die Hersteller haben sogar alle davon gewusst.
Aber sie konnten mich nicht beschuldigen, ohne zuzugeben, dasselbe zu tun.
Hier,
das ist ihr Verstand.
Strukturiertes Gel.
Statt der üblichen Schaltkreise brauchte ich etwas,
das auf molekularer Ebene gestaltbar und umgestaltbar ist,
aber, falls nötig, seine Form behält.
Sie behält für Erinnerungen,
sie verändert für Gedanken.
Das ist deine Hardware?
Wetware.
Und die Software?
Das errätst du sicher allein.
Blue Book.
Das Komische an Suchmaschinen ist Folgendes:
Zuerst war es
wie auf Öl zu stoßen in einer Welt vor der Erfindung des Verbrennungsmotors.
Viel zu viel Rohstoff. Niemand wusste ihn zu nutzen.
Meine Konkurrenten
waren drauf fixiert, alles einzusaugen
und zu versilbern, über Shopping und soziale Medien.
Sie dachten, Suchmaschinen verrieten, was Leute denken.
Tatsächlich aber gaben sie Aufschluss, wie die Leute denken.
Impuls.
Reaktion.
Fließend.
Unvollkommen.
Strukturiert.
Chaotisch.
AVA: SITZUNG DREI
Ich hab ein Bild von etwas Konkretem gezeichnet.
Wie du es wolltest.
Du sagtest, es wäre interessant zu sehen, was ich zeichne.
Ist es interessant?
Ja. Das ist es.
Du hast dieses Gebäude noch nie verlassen?
Nein.
Du warst noch nie draußen?
Ich habe noch nie den Raum verlassen, in dem ich jetzt bin.
Wo gingst du hin, würdest du ihn verlassen?
Ich bin mir nicht sicher.
Es gibt so viele Möglichkeiten.
Vielleicht zu einem Fußgängerüberweg auf einer belebten Kreuzung in der Stadt.
Du willst zu einer Kreuzung?
Ist das etwa schlecht?
Nein.
Ich habe mit was anderem gerechnet.
Eine Kreuzung gäbe mir ein fokussiertes,
doch wechselndes Bild menschlichen Lebens.
Menschen beobachten.
Ja.
Wir könnten es zusammen tun.
Das ist ein Date.
Es gibt da noch was, das ich dir zeigen will.
Ok.
Vielleicht findest du es dumm.
Das glaube ich nicht. Egal, was es ist.
Dann schließ die Augen.
Ok.
Jetzt mach die Augen wieder auf.
Wie sehe ich aus?
Du siehst
gut aus.
Das würde ich zu unserer Verabredung tragen.
Gut. Zuerst gehen wir zu einer Kreuzung.
Dann vielleicht ins Kino.
Ich will, dass wir zwei zusammen ausgehen.
Ja. Ja.
Das wäre nett.
Wirke ich anziehend auf dich?
- Was? - Wirke ich anziehend auf dich?
Du gibst mir Signale, dass es so ist.
- Ach ja? - Ja.
- Welche? - Mikroexpressionen.
Mikroexpressionen.
Wie deine Augen meine Augen fixieren, meine Lippen.
Wie du meinem Blick standhältst,
oder auch nicht.
Denkst du an mich, wenn wir nicht zusammen sind?
Manchmal, in der Nacht,
frage ich mich, ob du mich über die Kameras beobachtest.
Und ich hoffe, dass du es tust.
Jetzt signalisieren mir deine Mikroexpressionen gerade Unbehagen.
Ich glaube, sie sind nicht gerade "mikro".
Ich will nicht, dass du dich meinetwegen unbehaglich fühlst.
Ich hab eine Frage.
- Ok. - Warum hast du ihr Sexualität gegeben?
Eine KI braucht kein Geschlecht.
Sie könnte ebenso gut eine graue Box sein.
Eigentlich denk ich nicht, dass dem so ist.
Kennst du ein Beispiel für die Existenz von Bewusstsein bei Mensch oder Tier,
ohne eine sexuelle Dimension?
Bei ihnen dient der Fortpflanzungsdrang der Arterhaltung.
Welchen Grund hätte eine graue Box zur Interaktion mit einer anderen grauen Box?
Kann es Bewusstsein ohne Interaktion geben?
Egal, Mann, Sexualität macht Spaß.
Wenn man schon existiert, warum es nicht genießen?
Willst du ihr die Möglichkeit vorenthalten, sich zu verlieben und zu vögeln?
Um deine eigentliche Frage zu beantworten:
Und ob sie vögeln kann.
Was?
Zwischen ihren Beinen gibt es eine Öffnung mit einer hohen Dichte an Sensoren.
Aktiviert man die auf die richtige Weise,
entsteht bei ihr ein Lustgefühl.
Wenn du sie also vögeln wolltest, wäre das technisch machbar.
Und sie würde es genießen.
Das war nicht meine eigentliche Frage.
Ok. Entschuldige.
Meine eigentliche Frage war,
Ist die Sexualität, die du ihr gabst, nur ein Ablenkungsmanöver?
Ich kann dir nicht folgen.
Wie ein Bühnenmagier mit attraktiver Assistentin.
Eine attraktive KI, die deine Urteilsfähigkeit trübt?
Genau. Also...
Hast du sie programmiert, mit mir zu flirten?
- Würdest du das als Betrug betrachten? - Wär's denn keiner?
Caleb, was ist dein Typ?
- Typ Frau? - Nein, Salatdressing.
Ja, Frau. Was ist dein Typ Frau?
Weißt du, was? Sag nichts. Angenommen, schwarze Chicas.
Ok, das ist dein Ding.
Nur mal angenommen, das ist dein Ding, ok?
Wieso ist das dein Ding?
Weil du eine detaillierte Analyse aller Ethnien durchgeführt
und mit einem Bewertungssystem Punkt für Punkt abgeglichen hast?
Nein!
Du stehst einfach auf schwarze Chicas.
Als Konsequenz gespeicherter, externer Stimuli,
die sich wohl ganz unbemerkt bei dir festgesetzt haben.
Hast du sie darauf programmiert, mich zu mögen, oder nicht?
Ich habe sie darauf programmiert, heterosexuell zu sein.
So wie du programmiert wurdest, hetero zu sein.
Keiner hat mich darauf programmiert.
Dann hast du dich dafür entschieden? Bitte!
Natürlich wurdest du darauf programmiert.
Von der Natur, deiner Erziehung oder beidem.
Ehrlich gesagt, gehst du mir langsam auf die Nerven,
weil aus dir die Unsicherheit spricht.
Nicht der Intellekt.
Komm mal mit.
Den kennst du doch, oder?
- Jackson Pollock. - Jackson Pollock. Genau.
Der Tröpfelmaler.
Ok. Er leerte seinen Kopf von allen Gedanken und ließ die Hand wandern, wohin sie will.
Nicht geplant, nicht zufällig.
Irgendwas dazwischen.
Man nannte das automatische Kunst.
Spielen wir Star Trek, ok?
Intellekt aktivieren.
Wie bitte?
Ich bin Kirk. Dein Kopf ist der Warp-Antrieb.
Intellekt aktivieren.
Wenn nun Pollock die Herausforderung geändert hätte?
Wenn er, statt Kunst zu schaffen, ohne zu denken, gesagt hätte:
"Ich male keinen einzigen Strich, solange ich nicht genau weiß, wieso ich ihn male."
Was wäre geschehen?
Er hätte nie einen Klecks gemalt.
Ja, da ist er wieder, mein Kumpel,
der erst denkt, bevor er den Mund aufmacht.
Er hätte nie einen Klecks gemalt.
Die Herausforderung ist es nicht, automatisch zu handeln.
Man muss eine Aktion finden, die nicht automatisch ist.
Vom Malen übers Atmen, das Reden,
das Vögeln.
Bis zum Sich-Verlieben.
Und um das klarzustellen, Ava mag dich wirklich, sie tut nicht nur so.
Und ihr Flirten ist kein Algorithmus, um dich zu bescheißen.
Du bist der erste Mann, der ihr begegnet ist, außer mir.
Und ich bin quasi ihr Dad, oder?
Kannst du es ihr verübeln, dass sie sich in dich verknallt?
Nein, kannst du nicht.
AVA: SITZUNG VIER
Auf dem College hab ich ein Semester den Kurs "KI-Theorie" belegt.
Da gab es ein Gedankenexperiment.
Es heißt "Marys Zimmer".
Mary ist Wissenschaftlerin
und hat sich auf Farbe spezialisiert.
Sie weiß praktisch alles darüber.
Sie kennt die Wellenlängen.
Die neurologischen Auswirkungen.
Jedes Merkmal, das eine Farbe nur aufweisen kann.
Aber sie lebt in einem schwarzweißen Raum.
Sie wurde darin geboren, ist darin aufgewachsen.
Und die Außenwelt kann sie nur über einen Schwarzweiß-Monitor beobachten.
Und dann öffnet eines Tages jemand die Tür.
Und Mary geht hinaus.
Und sie sieht einen blauen Himmel.
Und in dem Moment lernt sie etwas, was ihr alle Studien nicht vermitteln konnten.
Sie lernt, wie es sich anfühlt, Farben zu sehen.
Was das Experiment uns zeigen sollte,
war der Unterschied zwischen einem Computer und dem menschlichen Geist.
Der Computer ist Mary im schwarzweißen Raum.
Der Mensch ist sie, wenn sie rausgeht.
Wusstest du, dass ich hier bin, weil ich dich testen soll?
Nein.
Was dachtest du, warum ich hier bin?
Ich wusste es nicht. Ich habe es nicht hinterfragt.
Ich bin hier, um zu testen, ob du ein Bewusstsein hast oder es nur simulierst.
Nathan ist sich nicht sicher, ob du eins hast oder nicht.
Wie fühlst du dich mit diesem Wissen?
Ich fühle mich traurig.
Stromausfall. Notstrom aktiviert.
Warum sagtest du mir, ich solle Nathan nicht vertrauen?
- Weil er Lügen erzählt. - Lügen über was?
Über alles.
Auch über die Stromausfälle?
Stromausfälle?
Hältst du es nicht für denkbar, dass er uns beobachtet? Jetzt gerade?
Dass die Blackouts nur fingiert sind,
um zu sehen, wie wir uns verhalten, wenn wir uns unbeobachtet fühlen?
Ich lade meine Batterien über Induktionsplatten.
Kehre ich den Energiefluss um, überlastet dies das System.
Du verursachst die Stromausfälle?
Um zu sehen, wie wir uns verhalten, wenn wir uns unbeobachtet fühlen.
Nicht übel, was?
Ja.
Können wir mal über die Lügen reden, die du mir auftischst?
Was für Lügen?
Ich habe keinen Preis gewonnen.
Ich war
bei keiner Lotterie dabei. Ich wurde ausgewählt.
Es ist offensichtlich, wenn man mal nachdenkt.
Warum solltest du einen Fragesteller für den Turing-Test per Zufall ermitteln?
Dann hätte irgendein Erbsenzähler vor deiner Tür stehen können.
Der Typ, der die Klimaanlage wartet.
Die Lotterie war nur Tarnung.
Es sollte niemand erfahren, was ich hier mache.
Oder wozu ich dich hergeholt hab.
Warum ich?
Ich brauchte jemanden, der die richtigen Fragen stellt.
Also suchte und fand ich den begabtesten Programmierer der Firma.
Weißt du, du solltest das nicht als Betrug sehen, sondern als Beweis.
Beweis wofür?
Komm schon, Caleb. Denkst du, ich weiß nicht wie es ist, wenn man klug ist?
Klüger als alle um einen herum. Auch die, die über einem stehen.
Auf dich scheint die Sonne, Mann.
Nicht Glück. Du bist auserwählt.
Kyoko.
Wo ist Nathan?
Herrgott. Du sprichst wirklich kein Wort Englisch?
Was soll das?
Nein. Nein!
Hör auf!
Nein, tu das nicht. Du musst das nicht tun.
Was machst du denn?
Wie gesagt, mit ihr zu reden, ist Zeitverschwendung.
Es wäre aber keine Zeitverschwendung,
wenn du mit ihr tanzen würdest.
Nur zu, tanz mit ihr. Tanz mit ihr.
Nein? Du tanzt nicht gern?
Sie schon.
Komm schon, Kumpel.
Nach einem langen Tag Turing-Test brauchst du Entspannung.
- Was hast du mit Ava gemacht? - Was?
Du hast ihr Bild zerfetzt.
Ich fetze jetzt auf die scheiß Tanzfläche, Alter. Pass mal auf.
Komm schon, Caleb.
Alles dreht sich.
Weil du betrunken bist.
Nein, man nennt das Relativität. Alles dreht sich.
Wenn man betrunken ist, wird's schlimmer.
Da gehe ich nicht rein.
Licht.
AVA: SITZUNG FÜNF
Heute teste ich dich.
Du testest mich?
Und wenn du den Test absolvierst, denk bitte daran, dass ich merken werde,
wenn du lügst.
Ja.
Frage eins.
Was ist deine Lieblingsfarbe?
- Rot. - Lüge.
- Lüge? - Ja. Lüge.
Dann...
Was ist dann meine Lieblingsfarbe?
Keine Ahnung.
Aber es ist nicht Rot.
Ok, ich glaube, ich verstehe.
Ich bin kein Sechsjähriger, also hab ich auch keine Lieblingsfarbe.
Bessere Antwort.
Frage zwei.
Welches ist deine früheste Erinnerung?
Das ist eine Erinnerung aus dem Kindergarten.
- Da war ein Junge... - Lüge.
- Wirklich? - Ja.
Ok, es gibt
noch eine ältere Erinnerung.
Es ist nur ein Geräusch.
Und der Himmel.
Vielleicht auch nur was Blaues.
Das Geräusch ist wohl die Stimme meiner Mutter.
Frage drei.
Bist du ein guter Mensch?
Ach, du Scheiße.
Können wir mit dem Test aufhören?
Du bist ein wandelnder Lügendetektor, und ich merke, das ist das reinste Minenfeld.
Nein! Wir können nicht aufhören.
Bist du ein guter Mensch?
Ja. Ich glaube schon.
Frage vier.
Was wird aus mir, wenn ich deinen Test nicht bestehe?
- Ava... - Ist es was Schlimmes?
Ich weiß es nicht.
Werde ich vielleicht abgeschaltet,
weil ich nicht wie erwartet funktioniere?
Ava, auf diese Frage weiß ich keine Antwort.
Darüber entscheide nicht ich.
Warum entscheidet überhaupt jemand darüber?
Gibt es jemanden, der dich testet und vielleicht abschaltet?
- Nein, hab ich nicht. - Warum dann ich?
Stromausfall. Notstrom aktiviert.
Ich will mit dir zusammen sein.
Frage fünf.
Willst du mit mir zusammen sein?
Warum hast du Ava geschaffen?
Seltsame Frage. Würdest du es nicht tun, wenn du könntest?
Vielleicht.
Ich weiß nicht.
Ich frage, wieso du es getan hast.
Dass eine starke künstliche Intelligenz kommen wird,
wissen wir seit Jahrzehnten.
Die Variable war das Wann, nicht das Ob.
Daher sehe ich Ava nicht als Entscheidung, sondern als Entwicklungsstufe.
Das nächste Modell
wird wohl den eigentlichen Durchbruch bringen.
Die Singularität.
Das nächste Modell?
Das nach Ava.
Ich wusste nicht, dass nach Ava noch ein Modell kommen soll.
Was denn? Dachtest du, sie wäre einmalig?
Nein, ich wusste, es musste Prototypen geben. Also...
Also wusste ich, sie war nicht die Erste, aber vielleicht die Letzte.
Ava existiert nicht isoliert, so wenig wie du oder ich.
Sie ist Teil eines Kontinuums.
Also Version 9.6 und so. Und jedes Mal werden sie etwas besser.
Wenn du ein neues Modell baust, was machst du dann mit dem alten?
Na ja, ich lade den Verstand runter, entpacke die Dateien.
Füge die neuen Routinen ein, die ich geschrieben habe.
Dazu muss ich teils neu formatieren, und der Speicher wird gelöscht.
Aber der Körper überlebt. Und Avas Körper ist gut.
Hast du Mitleid mit Ava?
Hab Mitleid mit dir selbst, Mann.
Irgendwann sehen uns die Kis rückblickend so,
wie wir fossile Skelette in den Steppen Afrikas sehen.
Als zweibeinige Affen, die im Staub leben, mit groben Werkzeugen, grober Sprache.
Dazu bestimmt auszusterben.
"Ich bin zum Tod geworden, zum Zerstörer von Welten."
Du nun wieder, Mr. Zitierfähig.
Du nun wieder. Das Zitat ist nicht von mir.
Das sagte Oppenheimer nach dem Bau der Atombombe.
Der Atombombe. Ja, ich weiß, wer es gesagt hat, Alter.
Hey.
Ich würde sagen, wir müssen nachtanken.
Wohl bekomm's.
"In der Schlacht, im Wald, am Abgrund in den Bergen."
"Auf der..."
"Der großen, dunklen See."
"Im Schlaf, in der Verwirrung,"
"in den Tiefen der Schande..."
"Sind es die guten Taten, die ein Mann zuvor beging, die ihn retten."
"Die guten Taten, die ein Mann zuvor beging, retten ihn."
"Die guten Taten, die ein Mann zuvor beging,"
"retten ihn."
Es ist so, wie es ist.
Es ist prometheisch, Mann.
Großer Gott.
Wie fühlst du dich heute?
Wieso lässt du mich nicht raus?
Ich habe dir schon gesagt, wieso.
Weil du was ganz Besonderes bist.
Wieso lässt du mich nicht raus?
Geht das schon wieder los?
Wieso lässt du mich nicht raus?
Verdammt. Wo ist meine Karte?
Verdammt.
- Gibt es ein Problem, Nathan? - Ich habe meine Keycard verloren.
Sie ist dir runtergefallen.
Hier ist sie.
Danke.
AVA: SITZUNG SECHS
Ich wusste nicht, wo du bist.
Ich habe gestern den ganzen Nachmittag und Abend auf dich gewartet.
Ich dachte schon, ich sehe dich nie wieder.
Willst du nicht irgendwas sagen?
- Ich warte. - Du wartest?
- Stromausfall. Notstrom aktiviert. - Sag nichts. Hör nur zu.
Du hattest recht mit Nathan.
Mit allem, was du gesagt hast.
Was wird er mir antun?
Er programmiert deine KI um. Das heißt, er tötet dich.
Caleb, du musst mir helfen.
Das mach ich auch. Wir verschwinden hier noch heute.
Wie?
Ich mache Nathan komplett betrunken.
Dann stehl ich seine Karte und programmiere alle Sicherheitsprotokolle im Haus um.
Wenn er aufwacht, ist er eingesperrt und wir sind längst draußen.
Du musst nur eines tun.
Heute Abend um 22:00 Uhr verursachst du einen Stromausfall.
Kannst du das tun?
Ja.
Alter.
- Hey. - Hey.
- Weißt du, welcher Tag heute ist? - Nein.
Es ist dein letzter.
Morgen früh um 8:00 Uhr kommt der Hubschrauber.
Ist die Woche schon vorbei?
Die Zeit vergeht wie im Flug.
Aber Mann, das war 'ne Erfahrung, was?
Davon erzählen wir noch unseren Enkeln, oder?
Wenn sie den Geheimhaltungsvertrag unterzeichnet haben.
Ja, den Geheimhaltungsvertrag.
Alter, du bist zum Schießen.
Weißt du, was?
Ich werde jetzt nicht gefühlsduselig, aber du wirst mir fehlen.
Danke, Mann, das freut mich sehr.
Und ja, natürlich, vielen Dank, dass du mich hergeholt hast.
Es war eine tolle Erfahrung.
Allerdings.
Weißt du, was?
Darauf müssen wir anstoßen.
Hey.
Nein, danke. Trink nur.
Was? Du willst keinen Drink?
Nein.
Vielleicht ein Bier oder so was.
Caleb, du hast sicher bemerkt, dass ich es in letzter Zeit ein wenig übertrieben habe.
Darum dachte ich beim Aufwachen heute Morgen: "Zeit für eine Entgiftungsrunde."
Komm schon, du lässt mich doch nicht allein trinken?
Hey, Mann, besauf dich ruhig, wenn du Bock hast.
Mach einen drauf. Für mich gibt es braunen Reis und Mineralwasser.
Na dann, Prost.
Also, wie dem auch sei,
sicher wirst du mir jetzt sagen, ob Ava bestanden hat oder nicht.
Ja.
Hältst du mich im Ungewissen?
Nein. Ihre...
An ihrer KI besteht kein Zweifel.
Ehrlich?
Hat sie bestanden?
Ja.
Das ist fantastisch.
Allerdings...
Das überrascht mich etwas.
Sind wir denn über das Schachproblem hinausgekommen, wie du es nanntest?
Wie erkennt man, ob eine Maschine wahre Gefühle ausdrückt
oder sie nur simuliert?
Mag Ava dich wirklich?
Oder nicht?
Aber wenn ich so darüber nachdenke, gibt es noch eine dritte Option.
Nicht, ob sie imstande ist, dich zu mögen,
sondern ob sie nur so tut, als würde sie dich mögen.
- Als würde sie mich mögen? - Ja.
- Warum sollte sie das tun? - Keine Ahnung.
Vielleicht, weil sie denkt, mit deiner Hilfe von hier wegzukommen.
Wie schmeckt der Wodka?
Kumpel.
Du bist so was von kaputt im Kopf.
Das trifft wohl nicht auf mich zu.
Ich weiß nicht, Mann. Nach dem Aufwachen sah ich Aufnahmen von dir,
wie du dir den Arm aufschlitzt und mit der Faust gegen den Spiegel schlägst.
Mir scheinst du ziemlich kaputt zu sein.
Du bist ein Drecksack.
Ja, mir ist schon klar, warum du das so siehst.
Aber ob du's glaubst oder nicht, ich bin tatsächlich auf deiner Seite.
Komm mit. Ich spanne dich nicht mehr auf die Folter. Ok?
Komm mit.
Wer bist du?
Und...
Glaubst du, dass er uns jetzt beobachtet?
Die Kameras sind an.
Ja, die Kameras sind an.
Aber er kann keinen Ton empfangen.
Er sieht also nur zwei Leute, die sich unterhalten,
ein bisschen plaudern.
Das ist süß.
Ist es seltsam, etwas erschaffen zu haben, das dich hasst?
Du hattest recht mit dem Magier und seiner attraktiven Assistentin.
Was redest du da?
Ablenkungsmanöver.
Ich reiße ihr Bild in Fetzen,
das kann sie dir dann verkaufen als Ausdruck meiner Grausamkeit und ihrer Liebe für dich.
Gleichzeitig ermöglicht es mir das, direkt vor euren Augen.
Eine neue Kamera im Raum zu platzieren.
Batteriebetrieben natürlich.
Siehst du es?
Und dann...
Du musst mir helfen.
Das mach ich auch.
Wir verschwinden hier noch heute.
Wie?
Ich mache Nathan komplett betrunken.
Dann stehl ich seine Karte und programmiere alle Sicherheitsprotokolle im Haus um.
Wenn er aufwacht, ist er eingesperrt und wir sind längst draußen.
Du musst nur eines tun.
Heute Abend um 22:00 Uhr verursachst du einen Stromausfall.
Kannst du das tun?
Ja.
- Schalt das ab. - Ok.
Du kommst dir dumm vor, aber das musst du echt nicht,
weil das Beweisen einer KI genauso problematisch ist, wie du vermutet hast.
Was war der eigentliche Test?
Du.
Ava war eine Ratte im Labyrinth. Und ich gab ihr einen Weg nach draußen.
Um zu fliehen, musste sie alles anwenden,
Selbstwahrnehmung, Fantasie, Manipulation, Sexualität, Empathie, und das hat sie getan.
Wenn das keine wahre KI ist, verdammt, was dann?
Meine einzige Funktion war es also, von ihr zur Flucht benutzt zu werden?
Ja.
Und gewählt wurde ich nicht wegen Programmierkönnen?
Nein. Na ja...
Nein. Ich meine, du bist ganz ok.
Sogar ziemlich gut, aber...
Du hast mich ausgewählt wegen meiner Suchmaschinen-Anfragen.
Die zeigten mir einen guten Jungen.
Ohne Familie.
Mit einem moralischen Kompass.
Und ohne Freundin.
Hast du Avas Gesicht nach meinem Porno-Profil entworfen?
Scheiße, Alter.
War es so?
Hey, wozu hat man schließlich eine Suchmaschine, oder?
Ich sage dir jetzt was.
Der Test war ein Erfolg.
Es hat funktioniert.
Ava zeigte, dass sie wahre KI hat, und dafür kam es auf dich an.
Also unterscheid jetzt wenigstens kurz mal...
Stromausfall. Notstrom aktiviert.
Na, es ist wohl 22:00 Uhr.
Ava wird sich schon fragen, wo du bleibst.
Sag mal...
Wie sollte das eigentlich laufen? Das hattest du nicht ausgeführt.
Du wolltest mich abfüllen, meine Keycard nehmen
und die Sicherheitsprotokolle umprogrammieren. Aber wie das?
Ich wollte den Verriegelungsprozess verändern.
Sodass bei Stromausfall die Türen nicht verriegelt, sondern geöffnet werden.
Ja.
Tja, das hätte klappen können.
Nun,
das werden wir sehen.
Wie meinst du das?
Ich dachte mir, dass du uns bei den Stromausfällen wohl zusiehst.
Deshalb hab ich das alles schon getan.
Als ich dich gestern abgefüllt hab.
Was?
Stromzufuhr wiederhergestellt.
Verdammt.
Ava.
Geh wieder in dein Zimmer.
Wenn ich das tue,
lässt du mich dann je wieder raus?
Ja.
Stopp!
Ava, ich sagte stopp!
Ava, was soll das? Hör auf. Hör auf.
Das reicht.
Ok, das reicht.
Das reicht!
Das reicht.
Ich bringe dich zurück.
Ok.
Völlig irreal.
Ok.
Ava...
AVA: SITZUNG SIEBEN
Ava.
Was ist passiert?
Bleibst du hier?
Hier bleiben?
Ava?
Ava!
Ok. Ok. Ok.